了解華為雲最新動(dòng)態(tài)
- 了解華為雲
- 新聞報(bào)導(dǎo)
- 華為雲發(fā)布大模型混合雲十大創(chuàng)新技術(shù)
[中國(guó)，東莞，2024年6月22日] 今日，在華為開(kāi)發(fā)者大會(huì)2024期間，以「大模型混合雲，十大創(chuàng)新技術(shù)引領(lǐng)政企智能升級(jí)」為主題的高峰論壇成功舉辦。會(huì)上，華為主機(jī)上雲軍團(tuán)CEO、混合雲總裁尚海峰發(fā)布大模型混合雲十大創(chuàng)新技術(shù)，通過(guò)聚焦根技術(shù)突破，幫助政企客戶(hù)抓住大模型戰略機(jī)遇，加速邁向智能世界。
尚海峰表示：「大模型的創(chuàng)新除了模型本身，更要腳踏實(shí)地深入千行萬(wàn)業(yè)，創(chuàng)造業(yè)務(wù)價(jià)值。華為雲Stack將持續(xù)圍繞AI-Native開(kāi)展系統(tǒng)性創(chuàng)新，在場(chǎng)景上廣(guǎng)泛探索，在技術(shù)上形成突圍，攜手共贏(yíng)AI的黃金時(shí)代。」
華為主機(jī)上雲軍團(tuán)CEO、混合雲總裁尚海峰
大模型混合雲成為最優(yōu)解
大模型技術(shù)正在催生新一輪的技術(shù)創(chuàng)新和產(chǎn)業(yè)變革，行業(yè)專(zhuān)屬大模型正在成為大模型應(yīng)用落地的重要方向。
作為大模型行業(yè)應(yīng)用的主力軍和排頭兵，政企客戶(hù)通常業(yè)務(wù)場(chǎng)景複雜多樣，對(duì)數(shù)據(jù)安全、訓(xùn)推效率和開(kāi)發(fā)成本都有極致的要求。能夠兼顧安全合規(guī)與成本的大模型混合雲，正在成為越來(lái)越多企業(yè)的優(yōu)先選擇。
2023年，華為雲推出業(yè)界首個(gè)大模型混合雲華為雲Stack，幫助企業(yè)一站式建設(shè)自己的專(zhuān)屬大模型。
第一，堅(jiān)實(shí)算力底座：華為雲Stack從計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、安全和運(yùn)維5大維度打造堅(jiān)實(shí)的算力底座。在算力層面，通過(guò)多樣性算力調(diào)度和算子加速能力，實(shí)現(xiàn)異構(gòu)算力融合，算力利用率提升50%以上；結(jié)合高性能存儲(chǔ)的多層緩存機(jī)制、高吞吐無(wú)阻塞AI網(wǎng)絡(luò)，讓算力發(fā)揮最大價(jià)值；四道大模型安全防線(xiàn)，可以智能攔截90%新型攻擊；打破硬體、模型、應(yīng)用碎片化的運(yùn)維體系，實(shí)現(xiàn)全鏈路可觀(guān)測(cè)，故障1分鐘發(fā)現(xiàn)、10分鐘定界、30分鐘恢復。
第二，使能百模千態(tài)：華為雲Stack提供ModelArts一站式開(kāi)發(fā)平臺(tái)，支持大規(guī)模異構(gòu)集群調(diào)度管理、分布式訓(xùn)練、雲邊協(xié)同部署及全流程工作流，並提供模型開(kāi)發(fā)套件、全鏈路數(shù)據(jù)工程套件、應(yīng)用開(kāi)發(fā)套件3大套件，加速數(shù)據(jù)、模型、應(yīng)用的一站式開(kāi)發(fā)。同時(shí)，華為雲Stack原生集成超過(guò)30個(gè)業(yè)界主流的基礎(chǔ)模型，實(shí)現(xiàn)開(kāi)箱即用。
第三，賦能千行萬(wàn)業(yè)：華為雲Stack將與政企客戶(hù)聯(lián)合創(chuàng)新中的經(jīng)驗(yàn)和能力固化下來(lái)，形成6大階段30多個(gè)專(zhuān)業(yè)服務(wù)，覆蓋大模型從規(guī)劃(huà)設(shè)計(jì)到建設(shè)運(yùn)營(yíng)的全流程，讓大模型從可用到好用。
10大創(chuàng)新技術(shù)發(fā)布！
大模型的應(yīng)用是一個(gè)複雜的系統(tǒng)工程，不僅僅在於單點(diǎn)技術(shù)的持續(xù)演進(jìn)，更需要基於場(chǎng)景和需求匹配合適的技術(shù)，通過(guò)全鏈路、多技術(shù)融合的系統(tǒng)性創(chuàng)新整體推進(jìn)。峰會(huì)上，尚海峰正式發(fā)布大模型混合雲十大創(chuàng)新技術(shù)，包括：多樣性算力調(diào)度、雲邊協(xié)同、AI-Native存儲(chǔ)、增強(qiáng)AI網(wǎng)絡(luò)、算子加速、全鏈路數(shù)據(jù)工程、統(tǒng)一數(shù)據(jù)編碼、精細(xì)視覺神經(jīng)網(wǎng)絡(luò)、無(wú)感斷點(diǎn)續(xù)訓(xùn)、安全護(hù)欄，覆蓋從雲基礎(chǔ)設(shè)施到AI開(kāi)發(fā)平臺(tái)以及模型層，通過(guò)系統(tǒng)性創(chuàng)新加速政企大模型應(yīng)用進(jìn)程。
華為混合雲數(shù)智領(lǐng)域總經(jīng)理徐強(qiáng)結(jié)合動(dòng)畫演示向大家詳細(xì)介紹大模型混合雲十大創(chuàng)新技術(shù)。徐強(qiáng)在演講中表示：「華為雲Stack將持續(xù)深耕根技術(shù)，幫助更多的政企客戶(hù)，建好大模型、用好大模型、加速邁向智能世界！」
華為混合雲數(shù)智領(lǐng)域總經(jīng)理徐強(qiáng)
四項(xiàng)全能，構(gòu)築最佳雲化算力底座
隨著大模型能力不斷變強(qiáng)，模型參數(shù)不斷增加，對(duì)端、邊、雲算力協(xié)同的整體架構(gòu)設(shè)計(jì)提出了更高的要求。華為混合雲CTO劉徵輝在會(huì)上發(fā)表《打造最優(yōu)混合雲底座，使能大模型創(chuàng)新》主題演講。
劉徵輝表示，依託全系列產(chǎn)品研發(fā)經(jīng)驗(yàn)，華為雲Stack通過(guò)系統(tǒng)性創(chuàng)新，為政企客戶(hù)打造大規(guī)模、高性能、高可靠、雲邊協(xié)同四項(xiàng)全能的雲化算力底座，加速大模型應(yīng)用進(jìn)程。
華為混合雲CTO劉徵輝
在大規(guī)模方面，華為雲Stack支持大規(guī)模AI集群和大容量訓(xùn)練數(shù)據(jù)，支撐千億模型訓(xùn)練集群部署。
在高性能方面，無(wú)阻塞互聯(lián)RoCE網(wǎng)絡(luò)可實(shí)現(xiàn)訓(xùn)練效率提升50%，利用高性能存儲(chǔ)的多層緩存機(jī)制，小文件加載效率提升了20倍。
在高可靠方面，通過(guò)軟硬協(xié)同分鐘級(jí)故障感知定界，實(shí)現(xiàn)月級(jí)長(zhǎng)穩(wěn)訓(xùn)練；智能化的運(yùn)維管理，覆蓋80%+故障場(chǎng)景、提升故障恢復能力，結(jié)合業(yè)界最成熟的安全運(yùn)營(yíng)方案、全覆蓋的AI數(shù)據(jù)安全方案以及最高安全等級(jí)的算力平臺(tái)，打造高安全算力。
在雲邊協(xié)同方面，華為雲Stack提供多種邊緣輕量化部署形態(tài)，AI高效賦能生產(chǎn)場(chǎng)站；並通過(guò)多雲合一的管理架構(gòu)，多雲擇優(yōu)的調(diào)度策略實(shí)現(xiàn)多雲算力管理。
深入場(chǎng)景，共築商業(yè)成功
華為雲持續(xù)深入行業(yè)場(chǎng)景，理解業(yè)務(wù)痛點(diǎn)，採用系統(tǒng)化思維，聯(lián)合客戶(hù)、開(kāi)發(fā)者、同行、合作夥伴等上下遊，持續(xù)構(gòu)築大模型的商業(yè)成功。目前，華為雲Stack大模型混合雲已應(yīng)用於政府、金融、煤礦、交通、電力等10多個(gè)行業(yè)。
在政府，華為雲聯(lián)合廣(guǎng)州、紹興、深圳福田等客戶(hù)一起基於大模型探索提升政務(wù)服務(wù)效率、優(yōu)化城市管理。
廣(guǎng)州市政務(wù)服務(wù)和數(shù)據(jù)管理局副局長(zhǎng)梁文謙發(fā)表《數(shù)智引領(lǐng)未來(lái)，AI共繪藍(lán)圖》主題演講。梁文謙表示，廣(guǎng)州政數(shù)局勇於探索，實(shí)現(xiàn)算力、數(shù)據(jù)、算法三位一體協(xié)同發(fā)展，通過(guò)模式創(chuàng)新、技術(shù)引領(lǐng)，實(shí)現(xiàn)廣(guǎng)州跨越式發(fā)展，老城市煥發(fā)新活力，打造數(shù)字經(jīng)濟(jì)引領(lǐng)型國(guó)際一流智慧城市。
廣(guǎng)州市政務(wù)服務(wù)和數(shù)據(jù)管理局副局長(zhǎng)梁文謙
目前，廣(guǎng)州聯(lián)合華為等頭部企業(yè)，成立數(shù)字廣(guǎng)州創(chuàng)新實(shí)驗(yàn)室，率先啟動(dòng)大模型合作創(chuàng)新。在政務(wù)服務(wù)領(lǐng)域，推進(jìn)「智能辦公」「智能導(dǎo)辦」等大模型試點(diǎn)應(yīng)用場(chǎng)景落地，構(gòu)建市區(qū)統(tǒng)籌的一體化大模型開(kāi)發(fā)運(yùn)營(yíng)平臺(tái)；實(shí)現(xiàn)政務(wù)事項(xiàng)精準(zhǔn)問(wèn)詢導(dǎo)辦，邊聊邊辦，24小時(shí)服務(wù)不打烊；辦公全程有幫手，智能生成摘要，推薦歷史審批數(shù)據(jù)，實(shí)現(xiàn)輔助批示，整體辦公效率大幅提升，加速實(shí)現(xiàn)國(guó)際一流智慧城市發(fā)展目標(biāo)。
在金融，華為雲攜手頭部金融機(jī)構(gòu)探索大模型在研發(fā)、客服、授信等領(lǐng)域的應(yīng)用場(chǎng)景，並已經(jīng)取得初步成效。
中國(guó)工商銀行大數(shù)據(jù)與人工智慧實(shí)驗(yàn)室夏知淵在會(huì)上分享工行基於混合雲的金融大模型體系建設(shè)及應(yīng)用實(shí)踐。
中國(guó)工商銀行大數(shù)據(jù)與人工智慧實(shí)驗(yàn)室夏知淵
基於華為雲Stack大模型混合雲，工行建成 「高速互聯(lián)、高效存儲(chǔ)、雲智融合、全棧可信賴、無(wú)感協(xié)同」的人工智慧算力雲，實(shí)現(xiàn)支撐千億大模型訓(xùn)練的AI算力集群，結(jié)合高質(zhì)多維的最大金融數(shù)據(jù)集，在華為雲盤(pán)古大模型的基礎(chǔ)上打造金融認(rèn)知能力領(lǐng)先的千億級(jí)金融大模型，為工行大模型應(yīng)用夯實(shí)基礎(chǔ)。
目前，工行金融大模型已在信貸、遠(yuǎn)程銀行等多個(gè)業(yè)務(wù)領(lǐng)域實(shí)現(xiàn)端到端、規(guī)模化應(yīng)用，賦能全行一線(xiàn)員工。如遠(yuǎn)程銀行場(chǎng)景，大模型賦能客戶(hù)服務(wù)全線(xiàn)業(yè)務(wù)工作，覆蓋千餘名用戶(hù)，在重點(diǎn)場(chǎng)景實(shí)現(xiàn)使用座席通話(huà)時(shí)長(zhǎng)大大縮短，知識運(yùn)營(yíng)效率大幅提升。
在工業(yè)，華為雲聯(lián)合鄂爾多斯、山能等客戶(hù)，探索通過(guò)礦山大模型加雲邊協(xié)同幫助礦山增安提效，同時(shí)推進(jìn)礦山大模型、工業(yè)網(wǎng)際網(wǎng)路平臺(tái)的融合發(fā)展，賦能礦山產(chǎn)業(yè)集群的智能化。
鄂爾多斯市創(chuàng)新投資集團(tuán)有限公司副總經(jīng)理廉詠梅出席峰會(huì)並發(fā)表演講。廉詠梅在演講中分享，為了加速煤礦產(chǎn)業(yè)智能化發(fā)展，鄂爾多斯市政府與華為聯(lián)合打造內(nèi)蒙古首個(gè)以行業(yè)AI大模型為核心的工業(yè)網(wǎng)際網(wǎng)路平臺(tái)，向煤企和夥伴提供開(kāi)發(fā)、銷(xiāo)售、運(yùn)營(yíng)等一站式服務(wù)，實(shí)現(xiàn)300+煤企統(tǒng)一接入，提供統(tǒng)一的AI算力資源和創(chuàng)新平臺(tái)，賦能生態(tài)企業(yè)。
鄂爾多斯市創(chuàng)新投資集團(tuán)有限公司副總經(jīng)理廉詠梅
會(huì)上，鄂爾多斯市數(shù)字投資有限公司與華為雲聯(lián)合發(fā)布《礦山產(chǎn)業(yè)集群大模型運(yùn)營(yíng)最佳實(shí)踐》白皮書(shū)，希望沉澱平臺(tái)運(yùn)營(yíng)過(guò)程中的實(shí)踐經(jīng)驗(yàn)，為同行數(shù)智化轉(zhuǎn)型提供參考路徑。
《礦山產(chǎn)業(yè)集群大模型運(yùn)營(yíng)最佳實(shí)踐白皮書(shū)》白皮書(shū)發(fā)布
攜手共贏(yíng)大模型生態(tài)
華為雲Stack旨在打造更優(yōu)的大模型底座和基礎(chǔ)能力，通過(guò)工具和專(zhuān)業(yè)服務(wù)使能懂行的生態(tài)夥伴，共同探索更多大模型與行業(yè)結(jié)合的創(chuàng)新路徑。
目前已經(jīng)有政府、金融、礦山、能源等行業(yè)100多個(gè)重點(diǎn)夥伴基於盤(pán)古大模型及開(kāi)發(fā)平臺(tái)構(gòu)建行業(yè)場(chǎng)景模型和創(chuàng)新應(yīng)用，打造了豐富的行業(yè)大模型方案。面向未來(lái)，華為雲Stack將以堅(jiān)定的戰略耐心，持續(xù)深入行業(yè)場(chǎng)景，與客戶(hù)、合作夥伴一起共迎AI的黃金時(shí)代。
